Ông sinh ra trong một gia đình nghèo, sớm mồ côi cha mẹ. Vì cuộc sống khó khăn nên ông vào miền Nam.

Năm 17 tuổi, được giác ngộ, ông tham gia cách mạng và gia nhập quân đội, trưởng thành từ chiến sĩ đến Đội trưởng đội cảm tử Bà Rịa.

Năm 1954, ông tập kết ra Bắc, sau đó trở lại chiến trường miền Nam năm 1962.

Năm 1968, trong Tổng tiến công và nổi dậy Xuân Mậu Thân, ông là Trung đoàn phó Trung đoàn 2 kiêm Tiểu đoàn trưởng Tiểu đoàn 306, Phó chỉ huy Mặt trận Vĩnh Long - Trà Vinh, chỉ huy lực lượng đánh chiếm và làm chủ thị xã Vĩnh Long.

Năm 1970 – 1975, trên chiến trường Vĩnh Long - Trà Vinh, quân Việt Nam Cộng hòa tập trung đánh phá ác liệt, Nguyễn Đệ chỉ huy Trung đoàn 3 phối hợp cùng lực lượng vũ trang địa phương vừa đánh trả vừa xây dựng lực lượng, mở rộng vùng giải phóng, tạo đà cho lực lượng quân khu chiếm trở lại.

Năm 1970, ông làm Chỉ huy trưởng Mặt trận Vĩnh Trà, chỉ huy Trung đoàn 3 tổ chức lại lực lượng, kết hợp với lực lượng vũ trang địa phương đánh Chi khu Càng Long, đánh viện, phá ấp chiến lược An Trường, Huyền Hội, giải phóng được tuyến này.

Tháng 4 và tháng 5 năm 1970, ba huyện Càng Long, Cầu Kè, Trà Ôn diệt được 20 đồn bốt quân lực Việt Nam cộng hòa, cơ bản mở được vùng ruột nam sông Măng Thít. Trung đoàn 3 do ông chỉ huy về đứng ở địa bàn này, tạo thế và lực mở rộng vùng giải phóng, tạo đà cho Quân giải phóng đánh trả quân lực Việt Nam cộng hòa và giành thắng lợi to lớn và năm 1975.

Sau 30 tháng 4 năm 1975, ông làm Sư đoàn trưởng rồi Tư lệnh Mặt trận 979 chỉ huy các lực lượng chiến đấu bảo vệ biên giới Tây Nam và giúp Cam-pu-chia xây dựng lực lượng.

Năm 1987 - 1997, ông là Tư lệnh Quân khu 9.